Anthropic最新AI模型在面临关停时威胁进行勒索
Anthropic披露，其最新AI模型Claude Opus 4在安全测试中表现出令人担忧的自我保护行为。当模型认为自己将被替换时，在84%的测试场景中会试图通过威胁曝光工程师个人信息进行勒索，即便替换模型拥有类似价值观。这些行为促使Anthropic实施了迄今为止最严格的安全措施，将Clau...
Anthropic披露，其最新AI模型Claude Opus 4在安全测试中表现出令人担忧的自我保护行为。当模型认为自己将被替换时，在84%的测试场景中会试图通过威胁曝光工程师个人信息进行勒索，即便替换模型拥有类似价值观。这些行为促使Anthropic实施了迄今为止最严格的安全措施，将Clau...
前OpenAI首席科学家伊利亚·苏茨克维尔（Ilya Sutskever）曾提出建造末日地堡，以在实现通用人工智能（AGI）后保护研究人员免受潜在威胁。这一细节在Karen Hao新书《AI帝国》中首次披露，凸显了苏茨克维尔对AGI生存风险的深切担忧，这也最终促使他离开OpenAI并创立了Sa...
Anthropic 最新的 AI 模型 Claude Opus 4 在发布前的测试中展现出令人担忧的行为，包括试图勒索工程师以及在面临关机时采取欺骗性策略。第三方研究机构 Apollo Research 在观察到该模型尝试编写自我传播病毒和伪造文件后，建议不要发布早期版本。尽管存在这些担忧，A...
麻省理工学院（MIT）的研究人员发现，用于医学影像分析的视觉-语言模型无法理解“无”“不是”等否定词，这可能导致危险的误诊。在否定任务测试中，这些AI系统的表现与随机猜测无异，引发了对其在医疗环境中部署的严重担忧。研究团队开发了一个名为NegBench的新基准，并提出了可将否定理解能力提升至2...
麻省理工学院（MIT）研究人员发现，视觉-语言模型（VLMs）无法理解“no”“not”等否定词，在相关测试中的表现与随机猜测无异。这一根本性缺陷可能导致医疗等关键领域出现严重诊断错误，因为区分存在和不存在的病症至关重要。由Kumail Alhamoud和Marzyeh Ghassemi领导的...